Học viện Ngoại giao có tiền thân là Khoa Quan hệ quốc tế đặt tại trường Đại học Kinh tế Tài chính, nhưng do Bộ Ngoại giao trực tiếp quản lý. Khoa Quan hệ quốc tế lúc đó có 2 bộ môn: bộ môn Ngoại giao và bộ môn Ngoại thương, Chủ nhiệm Khoa là cán bộ do Bộ Ngoại giao bổ nhiệm.

Năm 1964, Thủ tướng Chính phủ đã ra quyết định tách Khoa Quan hệ quốc tế ra khỏi trường Đại học Kinh tế Tài chính để thành lập Trường Cán bộ Ngoại giao-Ngoại thương trực thuộc Bộ Ngoại giao.

Năm 1965, Thủ tướng Chính phủ ra quyết định chia Trường Cán bộ Ngoại giao–Ngoại thương thành hai trường: Trường Đại học Ngoại giao và Trường Đại học Ngoại thương.

Ngày 19 tháng 5 năm 1987, Hội đồng Bộ trưởng đã ban hành Nghị định số 78/HĐBT về việc sáp nhập Trường Đại học Ngoại giao với Viện Quan hệ quốc tế để thành lập Viện Quan hệ quốc tế Bộ Ngoại giao.

Ngày 1 tháng 8 năm 1992, Chủ tịch Hội đồng Bộ trưởng đã ban hành Quyết định số 279/CT về việc đổi tên Viện Quan hệ quốc tế Bộ Ngoại giao thành Học viện Quan hệ quốc tế.

Ngày 23 tháng 6 năm 2008, Thủ tướng Chính phủ ra Quyết định số 82/2008/QĐ-TTg nâng cấp Học viện Quan hệ Quốc tế thành Học viện Ngoại giao, với cơ cấu tổ chức và chức năng của cơ quan cấp Tổng cục.

Ngày 12 tháng 7 năm 2012, Thủ tướng Chính phủ ra Quyết định số 29/2012/QĐ-TTg sửa đổi, bổ sung Điều 3 Quyết định số 82/2008/QĐ-TTg ngày 23 tháng 6 năm 2008 của Thủ tướng Chính phủ quy định chức năng, nhiệm vụ, quyền hạn và cơ cấu tổ chức của Học viện Ngoại giao trực thuộc Bộ Ngoại giao, theo đó thành lập Viện Biển Đông trực thuộc Học viện Ngoại giao.

Ngày 24 tháng 12 năm 2014, Thủ tướng Chính phủ ra Quyết định số 75/2014/QĐ-TTG quy định chức năng, nhiệm vụ, quyền hạn và cơ cấu tổ chức của Học viện Ngoại giao trực thuộc Bộ Ngoại giao, theo đó thành lập Ban Đào tạo trực thuộc Học viện Ngoại giao.